國(guó)際標(biāo)準(zhǔn)ISO/PAS 8800(人工智能AI安全)草案啟動(dòng)公開征集意見(jiàn)
2022年9月20日,國(guó)際標(biāo)準(zhǔn)ISO/PAS 8800(Road Vehicles — Safety and Artificial Intelligence—道路車輛-人工智能AI安全)形成工作組草案并啟動(dòng)國(guó)際范圍內(nèi)的公開征集意見(jiàn)。中國(guó)作為該標(biāo)準(zhǔn)第9小組(AI運(yùn)行監(jiān)控和持續(xù)安全保障)牽頭方深度參與研究制定工作。
ISO/PAS 8800是ISO/TC22/SC32/WG14道路車輛人工智能AI安全工作組的首個(gè)國(guó)際標(biāo)準(zhǔn),自動(dòng)駕駛領(lǐng)域核心的AI安全技術(shù)受到國(guó)際廣泛關(guān)注,來(lái)自中國(guó)、美國(guó)、德國(guó)、英國(guó)、奧地利、日本、韓國(guó)等17個(gè)國(guó)家的專家參與起草工作。由中汽中心、一汽、華為、商湯、地平線組成的中國(guó)專家代表團(tuán)作為該標(biāo)準(zhǔn)第9小組(AI運(yùn)行監(jiān)控和持續(xù)安全保障)牽頭方參與研究制定工作。
Subteam | Name |
Subteam 01 | Concepts and Definitions |
Subteam 02 | Scoping |
Subteam 03 | Functional Safety and SOTIF |
Subteam 04 | Safety Lifecycle |
Subteam 05 | Definition of safety-related properties of AI functions |
Subteam 06 | Selection of AI techniques and design related considerations |
Subteam 07 | Data-related properties |
Subteam 08 | Evaluating the performance /V&V |
Subteam 09 | Measures during operation and continuous assurance |
該標(biāo)準(zhǔn)融合了功能安全ISO 26262、預(yù)期功能安全(SOTIF)ISO 21448、ISO/IEC TR 5469人工智能AI功能安全、ISO TS 5083自動(dòng)駕駛系統(tǒng)安全,對(duì)車輛AI系統(tǒng)提出了安全要求,涵蓋AI安全屬性定義、AI技術(shù)選擇和設(shè)計(jì)、數(shù)據(jù)定義和挑選、AI安全措施、AI安全性能評(píng)價(jià)、AI驗(yàn)證和確認(rèn)V&V、運(yùn)行監(jiān)控和AI安全保障等關(guān)鍵內(nèi)容,以避免不合理的風(fēng)險(xiǎn)。
其中,中國(guó)牽頭負(fù)責(zé)的第9組-AI運(yùn)行監(jiān)控和持續(xù)安全保障,重點(diǎn)關(guān)注基于目標(biāo)市場(chǎng)的AI安全運(yùn)行監(jiān)控措施定義、車端和云端量化安全監(jiān)控機(jī)制開發(fā)、現(xiàn)場(chǎng)數(shù)據(jù)搜集、AI重訓(xùn)和技術(shù)完善等內(nèi)容。
下一步,中汽中心將繼續(xù)積極發(fā)揮牽頭作用,進(jìn)一步凝聚國(guó)內(nèi)外專家資源,精心組織協(xié)調(diào),持續(xù)貢獻(xiàn)中國(guó)方案,穩(wěn)步推進(jìn)該項(xiàng)國(guó)際標(biāo)準(zhǔn)制定工作,同時(shí)啟動(dòng)國(guó)內(nèi)汽車AI安全技術(shù)和標(biāo)準(zhǔn)研究工作。